Guaranteeing Faithful Evidence Extraction in Speculative Retrieval-Augmented Generation
在推测式检索增强生成中保证忠实证据提取
🧭 RAG 忠实证据提取与解码约束
Université de Toulouse - IRIT UMR 5505 · Airbus Protect
提出CHyD，将投机解码改造为强制约束解码，保证引用片段逐字来自检索文档，技术领域准确率接近完美
📌 工作参考价值（4 点）
- 在电商/广告合规文案、商品政策解释、客服问答等场景，需要引用原文保证信息准确时，可以使用硬约束解码限制生成内容必须来自检索到的商品详情、条款或文档 span，从机制上避免幻觉。
- 将 speculative decoding 的目标从加速改为 faithfulness 验证，思路可迁移：用草稿模型提出候选 span，再用约束目标模型验证是否逐字匹配，既保留一定效率又保证忠实。
- 对于需要精确抽取的任务（如商品属性提取、广告审核依据、搜索中的摘要引用），优先选择 constrained decoding 而非依赖模型自觉引用，能把抽取准确率从低于 40% 提升到接近 100%，代价是牺牲部分流畅性，适合准确性优先场景。
- 该思路可以用于 Agent 的检索增强工具：当 Agent 需要引用外部知识回答时，约束其输出为检索结果的连续片段，可显著降低事实性错误和不可验证引用。